机器学习中的数学——点估计(一):基础知识

分类目录:《机器学习中的数学》总目录
相关文章:
· 点估计(一):基础知识
· 点估计(二):矩估计
· 点估计(三):极大似然估计/最大似然估计(Maximum Likelihood Estimate,MLE)
· 点估计(四):最大后验估计(Maximum Posteriori Probability,MAP)


设总体 X X X的分布形式已知,但它的一个或多个参数未知,借助于总体 X X X的一个样本来估计总体未知参数值的问题称为参数的点估计。设总体 X ∼ f ( x ; θ ) X\sim f(x;\theta) Xf(x;θ),其中 f f f的形式已知, θ \theta θ是未知参数.例如,总体 X ∼ B ( 1 , p ) X\sim B(1, p) XB(1,p),其中 p p p未知,这个 p p p即为标记总体分布的未知参数,简称总体参数。总体参数虽然是未知的,但是它可能取值的范围却是已知的.称总体参数的取值范围为参数空间,记作 Θ \Theta Θ.例如,已知总体 X ∼ N ( μ , σ 2 ) X\sim N(\mu, \sigma^2) XN(μ,σ2),其中 μ \mu μ σ 2 \sigma^2 σ2都未知,参数空间 Θ = ( μ , σ 2 ) : − ∞ < μ < ∞ , σ 2 > 0 \Theta={(\mu, \sigma^2):-\infty<\mu<\infty, \sigma^2>0} Θ=(μ,σ2):<μ<,σ2>0

( x 1 , x 2 , ⋯   , x n ) (x_1, x_2, \cdots, x_n) (x1,x2,,xn)是取自总体 X X X的一个样本,若用一个统计量 θ ^ = θ ^ ( x 1 , x 2 , ⋯   , x n ) \hat{\theta}=\hat{\theta}(x_1, x_2, \cdots, x_n) θ^=θ^(x1,x2,,xn)来估计 θ \theta θ,则称 θ ^ \hat{\theta} θ^为参数 θ \theta θ的一个点估计量。 θ ^ \hat{\theta} θ^为参数 θ \theta θ的一个估计量,则有 g ( θ ^ ) g(\hat{\theta}) g(θ^)为参数 g ( θ ) g(\theta) g(θ)的一个估计量.在这里,构造统计量 θ ^ \hat{\theta} θ^常用的方法有矩估计法、极大似然估计和最大后验估计等。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

von Neumann

您的赞赏是我创作最大的动力~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值